#### 激活函数 ReLu
class Relu:
    def __init__(self):
        self.mask = None

    # forward
    def forward(self, x):
        self.mask = (x <= 0)  # 记下那些小于等于0的元素的索引位置（大概可以这么认为）
        out = x.copy()
        out[self.mask] = 0  # 刚才标记的索引现在用上了
        return out

    # backward
    def backward(self, dout):
        dout[self.mask] = 0  # 接着借助刚才的标记
        dx = dout
        return dx

